Bộ nhớ dài-ngắn hạn
Bộ nhớ dài-ngắn hạn

Bộ nhớ dài-ngắn hạn

Bộ nhớ dài-ngắn hạn[1] (tiếng Anh: Long short-term memory, viết tắt LSTM) là một mạng thần kinh hồi quy (RNN) nhân tạo[2] được sử dụng trong lĩnh vực học sâu. Không giống như các mạng thần kinh truyền thẳng (FNN) tiêu chuẩn, LSTM có chứa các kết nối phản hồi. Mạng không chỉ xử lý các điểm dữ liệu đơn lẻ (như các hình ảnh), mà còn xử lý toàn bộ chuỗi dữ liệu (chẳng hạn như lời nói hoặc video). Ví dụ, LSTM có thể áp dụng cho các tác vụ nhận dạng chữ viết tay[3], nhận dạng tiếng nói[4][5] và phát hiện bất thường có tính chất kết nối, không phân đoạn trong giao thông mạng hoặc các IDS (hệ thống phát hiện xâm nhập).Một đơn vị LSTM thông thường bao gồm một tế bào (cell), một cổng vào (input gate), một cổng ra (output gate) và một cổng quên (forget gate). Tế bào ghi nhớ các giá trị trong các khoảng thời gian bất ý và ba cổng sẽ điều chỉnh luồng thông tin ra/vào tế bào.

Tài liệu tham khảo

WikiPedia: Bộ nhớ dài-ngắn hạn ftp://ftp.idsia.ch/pub/juergen/L-IEEE.pdf http://www.idsia.ch/~juergen/rnn.html http://www.idsia.ch/~juergen/tpami_2008.pdf http://christianherta.de/lehre/dataScience/machine... http://www.felixgers.de/papers/phd.pdf http://adsabs.harvard.edu/abs/2015arXiv151105942C http://www.cs.umd.edu/~dmonner/papers/nn2012.pdf //www.ncbi.nlm.nih.gov/pmc/articles/PMC3217173 //www.ncbi.nlm.nih.gov/pmc/articles/PMC5341604 //www.ncbi.nlm.nih.gov/pmc/articles/PMC5836943